VikingRAG: Accurate and Token-efficient Retrieval-augmented Generation over Structured Documents
VikingRAG：结构化文档的高精度低 token 检索增强生成
🧭 结构化文档 RAG · 目录感知存储与经验复用 ★ 深度解读
Renmin University of China · Independent Researcher · Fudan University
目录感知语义存储结合经验边与自适应升级，使结构化文档 RAG 精度持平 SOTA 而 token 降至 5.1%-32.5%
📌 工作参考价值（4 点）
- 将商品/政策/售后文档按目录树 URI 化，构建多粒度摘要（chunk 与 section abstract）的向量索引；语义召回结果带回 URI 路径，后续检索/读取限定在该子树，避免每次把完整目录序列化进 prompt，显著降 token。
- 用 Search/List/Grep/Read 四种工具切分检索动作：先语义粗定位到商品/政策条目，再按 URI scope 做关键词精确匹配，最后只读需要的内容验证证据；适合售后规则问答、广告审核政策、商品属性答疑等易漏召回场景。
- 把多轮 agent 检索成功的轨迹物化为 query-conditioned experience edges，相似 query 直接走边扩展召回，避免重复探索；可借鉴为在线服务中的“会话检索缓存/知识捷径层”，随真实 query 增量更新，降低重复路径 token 与延迟。
- 自适应 escalation：先用一轮 experience-augmented retrieval 生成候选答案，并要求 LLM 先列关键约束再判定证据是否充分，不充分才升级多轮 agent。工程上能把大多数 easy query 留在低成本路径，hard query 才触发高成本 agent。